Look Before You Leap: Factual Decoding with Internal Attribution Signals
三思而后行：利用内部归因信号的事实性解码
🧭 LLM 事实性解码 · 内部归因信号
Chung-Ang University, Department of Artificial Intelligence · Chung-Ang University, Graduate School of Advanced Imaging Sciences, Multimedia and Film
提出 DescaPE，在推理时用内部归因信号对候选续写打分，抑制幻觉易发路径，提升事实性
📌 工作参考价值（3 点）
- 推理时轻量探针监控内部归因信号，可集成到电商商品文案、搜索回答或推荐理由生成中，在 beam search / top-p 解码时对候选打分，实时过滤容易出错的属性、价格、活动规则等事实错误，无需重训大模型。
- 滑动窗口 MLP 消融定位事实显著层的方法可复用：业务中可对自有 LLM 做类似层重要性扫描，找出监控事实性的关键层作为线上干预点，降低全量 probing 成本。
- 探针只需单次前向传播近似信号，延迟仅 1.10×，适合在线生成场景；可结合业务知识库构建正负样本训练领域定制探针，与 RAG 互补，防止检索到错误信息后继续编造。